RPTune: Learned Context Curation for LLM Catalog Search
RPTune：LLM 目录搜索的学习式上下文筛选与后训练
🧭 长上下文 LLM 商品搜索 · 上下文筛选 ★ 深度解读
Google · University of Illinois Urbana-Champaign
提出 RPTune，用可学习 curator 对全量商品目录做剪枝重排，并配合 LLM 后训练，在 7 个小商家上显著提升商品搜索准确率
📌 工作参考价值（4 点）
- 对中小商户/长尾目录，若 catalog 可放入 LLM context，直接全量 prompt 比多阶段 RAG 更优；可先用 RPTune 类 curator 做 25% 剪枝，精度不降反升，同时降低延迟。
- 用 encoder+MLP 重排器，让 reorganizer 以冻结 LLM 反馈为信号做 RL，优化目标对齐下游选择准确率，而非单纯语义相似度；ascending 排列把高分商品放在 prompt 末尾（靠近生成位置）效果最好。
- 无行为数据冷启动时，用 frontier LLM 为每个商品生成合成 query，并对全 catalog 做 graded relevance scoring，训练和评估都无需商户日志；这种数据管线可复用到新品/小目录场景。
- LLM 后训练采用 context-relative reward：只要求在 curated 目录内选最高相关商品，并对幻觉（输出 catalog 外商品）给 -1 惩罚，能充分利用剪枝后的候选集，比全局 top-1 或连续分奖励更稳定。